Sau khi nhà Đường thống nhất Trung Quốc, từ Thái Tông, Cao Tông cho đến Võ Tắc Thiên đều phải dụng binh, đánh bại các thế lực ở phía bắc và phía tây bắc như Đông Đột Quyết và Tây Đột Quyết, lại diệt nước Cao Xương, chiếm đất thành lập châu huyện, một lần nữa lại khống chế Tây Vực. Ở vùng đông bắc thì tiêu diệt nước Cao Câu Ly và Bách Tế, và đánh bại viện quân Nhật Bản trong trận Bạch Giang. Đến thời Huyền Tông, việc đối ngoại càng mở rộng đến đỉnh cao, thế lực thậm chí đến tận vùng Trung Á, vươn đến tận nước Hắc Y Đại Thực (tức Vương triều Abbas theo Hồi giáo Sunni). Nhưng sau loạn An Sử, khiến nhà Đường xuống thế và lung lay, không còn sức để bảo vệ các miền lãnh thổ đã chiếm được trước đây và đã dần dần bị các nước Thổ Phồn, Hồi Hột với thực lực quân sự hùng hậu chiếm lấy, bản thân bên trong nhà Đường còn phải đối phó với thế lực phiên trấn cát cứ. Tuy nhiên đến thời Đường Hiến Tông nhờ những thắng lợi các phiên trấn ở vùng Hoài Tây và Kiếm Nam, nên phiên trấn quy thuận, nhưng lại không thể diệt tận được họa phiên trấn đã ăn sâu vào gốc rễ. Nhà Đường từ đó càng xuống dốc trầm trọng. Ngay kinh thành Trường An cũng từng một lần bị phiên trấn đánh chiếm (năm 763), phía tây nam lại có Nam Chiếu liên hợp với Thổ Phồn đánh đến tận Thành Đô năm 831.[18]:69

Nhà Đường kế thừa nhà Tùy thi hành phủ binh chế,[8]:288 noi theo chế độ phủ binh của thời Bắc Chu và Bắc Tề, từ thời Bắc Chu các phủ binh là do xét trong hộ tịch mà trưng dân, Tùy Đường thì rút các tráng đinh nam đến tuổi phục dịch cho vào phủ binh, việc hợp dân lại tạo thành quân lính đó được gọi là chế độ trưng binh. Phủ binh chế là cơ bản tuyển quân lính đưa vào các Chiết Xung phủ. Chiết Xung phủ phân ra 3 cấp: Thượng phủ là một nghìn mấy trăm người, Trung phủ là một nghìn người, Hạ phủ là 800 người. Trưởng quan ở quân phủ gọi là Chiết Xung đô uý (折沖都尉). Chức phó là Tả hữu Quả nghị Đô úy (左右果毅都尉). Quân phủ lệ thuộc vào 12 vệ của Hoàng đế và 6 soái của Đông cung thái tử; mỗi vệ có một Đại tướng quân và hai tướng quân phụ tá, mỗi soái có chủ soái và 2 phó soái. Các chức vụ này đều ở triều, làm nhiệm vụ mới chỉ huy quân nên không thành uy hiếp cho triều đình được. Số lượng Chiết Xung phủ lúc đông nhất lên đến 634 phủ, gồm 600 ngàn quân, thay phiên nhau đóng ở quanh Trường An mỗi kỳ một tháng, mỗi năm 3 kỳ. Phủ binh còn được điều đi đóng ở khu vực xung yếu mỗi năm một kỳ. Phủ binh chế cũng hợp nhất với Quân điền chế từ cơ sở trưng dân nông binh. Quân lính cứ đến 21 tuổi thì nhập quân và đến 60 tuổi thì được miễn, cứ mỗi hộ có 3 trai tráng thì tuyển 1 người đi lính thú. Vệ sĩ bình thường cũng ở tại nông trang làm ăn cày cấy và lo tập huấn luyện. Họ thường được chia ra làm nhiều phiên cứ thay nhau canh trực cho kinh đô Trường An gọi là thượng phiên. Đến khi có chiến tranh thì quy tụ lại để sẵn sàng xông trận. Trong thời gian phục dịch họ được miễn trừ tô thuế, tuy nhiên việc khẩu phần lương thực và binh khí vẫn phải tự mình phụ trách.[30]:145

Phủ binh chế trên thực tế là sự kết hợp giữa binh sĩ và nông dân, giám bớt gánh nặng cho quốc gia,[8]:289 nhờ họ tự làm ăn mà nhà nước đỡ tốn chi phí nuôi và cấp lương, đó gọi là ngụ binh ư nông. Lúc thường làm dân, có chiến thì đi lính; quân không biết tướng, tướng cũng không biết quân.[chú thích 11] Chiến sự kết thúc thì quân trở về phủ, tướng lĩnh về triều, còn những tướng đầu hàng thì có quân đi theo để phòng nguy hiểm. Phủ binh chế có khuyết điểm là khi động viên binh sĩ nhập ngũ lại quá lâu dài, quân trễ biếng, ảnh hưởng đến nông nghiệp, mà triều đình lại miễn trừ thuế khoá cho binh sĩ nên thành ra cũng có tổn thất. Do đó, Thái Tông, Cao Tông cho đến Võ Tắc Thiên đều phải có sự lựa chọn lúc gặp chinh chiến thì mộ thêm quân đối lại với phủ binh cho có sự bổ sung.[17]:431

Thời Đường Thái Tông, quân đội chủ lực của triều Đường thường bao gồm bộ và kỵ binh hỗn hợp, một quân đoàn tiêu chuẩn có khoảng 12.500 bộ binh, 5.000 đến 6.000 kỵ binh và 1.000 đến 2.000 lính quân nhu quân dụng. Dưới quân là doanh, dưới doanh là đoàn, mỗi đoàn quản lý 2 lữ, mỗi lữ là 100 người, tổng cộng khoảng 20 ngàn người. Trong 12.500 bộ binh thì giáp binh là 7.500, binh mạch đao khoảng 2.500 (mạch đao: cây thương hình hạt lúa kiều mạch). Những bộ binh này mỗi người có một cây cung với 30 mũi tên, một cây thương, và con dao nặng cán ngắn. Tỷ lệ trang bị cung nỏ của bộ binh triều Đường lên đến 120%, mỗi binh sĩ đều có ba loại vũ khí trở lên. Nếu so với quân thời Tần và Hán thì hỏa lực mạnh hơn từ 3 – 5 lần, sức tấn công cũng mạnh hơn nhiều. Ngoài trang bị vũ khí thì bộ phận hậu cần cũng chuẩn bị rất đầy đủ: mỗi binh sĩ có một túi lương khô bằng da dê quấn ở eo, có thể dùng trong ba ngày. Mỗi người còn có cái áo khoác lông thú, lính tinh nhuệ áo có bọc da, còn có thêm một túi nước cũng bằng da. Thường thì cứ 7 lính chiến đấu lại có 3 lính hậu cần phụ trách quản lý ngựa và đồ quân nhu cùng các công cụ giao thông khác. Những vật phẩm dùng ngựa thồ mang theo gồm: chén, dao nhỏ, rũa, kìm, khóa, thuốc, muối ăn, đá lấy lửa, búa, đá mài, khố, dây đai trán, mũ nỉ, thảm, chăn, 3 đôi giày.

Kỵ binh thời nhà Đường không trang bị nặng nề như thời Nam – Bắc triều, giáp của ngựa được giảm bớt nhưng kị sĩ thì vẫn có chiến giáp bảo vệ hoàn thiện. Giáp đen thời kỳ đầu dần bị loại bỏ và thay thế bằng giáp minh quang. Giáp minh quang có tấm kim loại hình tròn ở sau lưng và trước ngực bảo vệ, vì được mài sáng như gương và chiếu ra ánh sáng làm lóa mắt nên gọi là giáp minh quang.

Kị binh Đường có phân chia thành mức độ trang bị khác nhau. Huyền Giáp binh (đội quân giáp đen) là do Đường Thái Tông Lý Thế Dân lập ra, cả người và ngựa được trang bị áo giáp hạng nặng, được phòng hộ tốt, lực tấn công lớn, là đội quân chủ lực trong các cuộc tấn công dã chiến. Theo “Tư trị thông giám”, Tư Mã Quang viết: “Tần vương Lý Thế Dân đã chọn ra hơn 1.000 binh lính kỵ binh, và tất cả đều mặc đồng phục áo giáp đen. Ông chia quân thành các cánh quân bên trái và cánh quân bên phải, để cho Tần Thúc Bảo, Trình Giảo Kim, và Uất Trì Kính Đức thống lĩnh đội quân. Trong mỗi trận chiến, Lý Thế Dân đều mặc áo giáp đen và thống lĩnh đội quân tiên phong để tấn công kẻ thù. Khi đội quân đã tấn công thì không một kẻ thù nào có thể ngăn cản được. Vì thế, kẻ thù rất sợ nó”. Mỗi binh sĩ trong đội kị binh giáp sắt đen đều phải rất thiện chiến, được lựa chọn từ cá nhân nổi bật tại các đơn vị. Sức mạnh tổng hợp của 1.000 kị binh giáp đen có thể chống lại được quân địch đông hơn gấp 10 lần. Lý Thế Dân đã cùng đội kị binh áo giáp đen của mình đã chiến đấu rất dũng mãnh. Trong trận Hổ Lao, Lý Thế Dân đã thống lĩnh 3.000 lính kỵ binh trực tiếp tấn công đối phương, cuối cùng đánh bại Đậu Kiến Đức khi ấy có hơn 100.000 binh lính, đồng thời bắt giữ hơn 50.000 quân.

Thời Thái Tông, quân đội toàn quốc được triều đình trực tiếp quản lý, ước có đến hơn 600 phủ binh, việc nhậm quân sự là nhất thiết, không quản việc phái các hộ vệ đi xa từ kinh sư đến địa phương trú nghỉ hay xuất chinh, chấp hành việc phân đều quân đội. Tuy nhiên, do sau này để tiện việc quản lý, nhu cầu thiết yếu triều đình phải đặt ra trưởng quân quản lý quân đội từng khu vực ở địa phương, họ được gọi là "tiết độ sứ". Mà thời kinh tế xã hội được cải thiện, nhân dân thường phản kháng chống lại chế độ binh dịch. Ngoài ra do quốc gia thái bình đã lâu, quân phủ ít dùng đến, chính quyền thường có sự thanh nhàn, quân đội hầu như đã có sa sút trong chiến đấu.

Đến thời Huyền Tông, triều đình bỏ lơ việc nắm nhân khẩu, chế độ quân điền bị xâm phạm, quyền lợi quân lính không đảm bảo, nhiều người không thiết tha với phủ binh khiến trong phủ binh có nhiều người bỏ trốn, phủ binh trống rỗng. Đường Huyền Tông cho cải cảnh chế độ phủ binh, giảm độ tuổi phục dịch xuống còn 25 đến 50 tuổi nhưng tình hình không cải thiện. Chế độ phủ binh chế đến hồi suy bại, chỉ còn là hình thức, chế độ thượng phiên cũng bỏ đi. Trong những năm Thiên Bảo, Huyền Tông thu nạp Trương Thuyết (張說) có kiến nghị thi hành trưng binh chế và mộ binh chế và dần dà phế bỏ đi phủ binh chế. Vì lòng hư vinh muốn trọn xưng là "thống lĩnh tứ di", bèn lo chiêu mộ được những sĩ binh đóng trường kì ở biên giới tiến hành việc chiến tranh với nước ngoài, xưng là "Kiện nhi" (健儿). Và ít nhất cũng có liên hệ với lính đánh thuê ở tại bản địa, bọn họ chỉ mong ra biên thùy đánh trận để thu được những ích lợi cho mình. Các tướng lĩnh ở biên trấn thông qua lợi ích mà quan hệ với các bộ tộc du mục (cho nhiều tướng lĩnh và phủ binh được nhờ vào các dị tộc), họ luôn luôn có sự khống chế đối với sĩ binh cho đến về sau này khi xảy ra chiến họa.[30]:145

Sau loạn An Sử, việc quân sự của nhà Đường bắt đầu suy thoái: trong thì có phiên trấn cát cứ, ngoài thì Hồi Hột, Thổ Phồn và Nam Chiếu cứ xâm nhập. Tiêu biểu như việc quân Đường mượn quân người Hồi Hột để dẹp loạn An Sử (khiến họ một phen cướp phá). Năm 763, Thổ Phồn đã từng chiếm giữ Trường An 15 ngày. Nam Chiếu cũng từng đánh chiếm Thành Đô, rồi tiến đánh An Nam cho đến khi nhà Nam Hán thời Ngũ Đại Thập Quốc thu hồi. Các tướng sĩ phòng thủ Nam Chiếu cũng sinh ra bất mãn, gây cuộc "Sự biến Bàng Huân". Về sau lại có giặc Hoàng Sào, rồi chiến tranh giữa Chu Toàn Trung và người Sa Đà của Lý Khắc Dụng. Các địa chức quân nhân xảy ra lục đục, chiếm lĩnh địa phương, thậm chí tự lập chính quyền riêng, dẫn đến nhà Đường tiêu vong và kế tiếp xảy ra cục diện phân chia Ngũ Đại Thập Quốc, đó là kết cục kế tiếp lâu dài do họa phiên trấn gây ra.[30]:145

Thời Đường Huyền Tông đã có mối quan hệ với Ả Rập, và sau này tiếp nhận Hồi giáo dưới Triều đại Abbas. Và cùng với nhiều nước họ Chiêu Vũ Cửu, Burusho (Bột Luật), Thổ Hỏa La ở các vùng thuộc Trung Á. Năm 751, khi nhà Đường thất bại trong chiến dịch TalasĐường, mưu đồ kinh lực Trung Á bị bẻ gãy, nhưng về sau khi loạn An Sử và họa phiên trấn khiến nền kinh tế ở Hoa Bắc tiêu điều, các quân sĩ đóng lâu năm ở vùng tây bắc thường nhàn rỗi phải rút về Trường An lo bảo vệ chính quyền, và khoảng 150 năm sau khi Thổ Phồn và Hồi Hột mạnh lên thì chiếm lấy một nửa vùng phía tây rộng lớn của nhà Đường.[26]:95

Trong thời kỳ nhà Đường có rất nhiều danh tướng, với Nhị thập tứ công thần đồ (Tranh vẽ 24 vị công thần) ở Lăng Yên các và Quách Tử Nghi, cha con tướng Lý Thịnh (李晟) và Lý Tố, Cao Biền là những vị tướng chiến ngoại giỏi của người Hán, ngay những tướng lĩnh dị tộc cũng có những địa vị trọng yếu: người có pha dòng máu Hồ và Hán là An Lộc Sơn, Sử Tư Minh (người Đột Quyết), Hắc Xỉ Thường Chi (黑齿常之, người Bách Tế), Cao Tiên Chi (người Cao Câu Ly), A Sử Na Xã Nhĩ (người Đột Quyết), Lý Quang Bật (người Khiết Đan), Lý Hoài Quang (người Mạt Hạt), Ca Thư Hàn (哥舒翰, người Đột Quyết), Bộc Cố Hoài Ân (người bộ Thiết Lặc), Hồn Hòa (渾瑊) và A Điệt Quang Tiến (阿跌光進).